KuaFu：十亿规模长用户行为压缩与理解的统一层
🧭 用户行为压缩 · LLM 理解 ★ 深度解读
Tencent Inc., Shenzhen, China
以单行为 item 为最小压缩单元，双轴投影将每条行为压到 2–4 token，四阶段训练抑制幻觉，部署后 GMV 提升 1.37%
📌 工作参考价值（4 点）
- 可迁移点 1：采用 item 级压缩而非 sequence 级压缩，使 embedding 只依赖 item 本身，可离线缓存、跨用户/任务复用；缓存随 item inventory 增长而非 #users×#tasks，极大降低每周十亿用户画像刷新成本。在电商/广告中，商品、内容、广告素材均可预先压缩存储，在线只拼接。
- 可迁移点 2：双轴投影（token 轴 8→2，width 轴 2560→128，约10×/20×压缩）配合残差与 Down/Up 低秩投影，能把单 item 缓存从10KB降到0.5KB；适合长行为序列 KV cache 或 prompt 侧压缩，注意压缩宽度对细节丢失的影响，需按 task 选择 ratio。
- 可迁移点 3：四阶段课程训练：重建→压缩 QA→压缩+生成协同→幻觉感知 RL。尤其基于长度的五桶课程（1,1–3,1–200,1–500,1–1200）是收敛必要条件；直接混合长度 loss 卡在2.27。可借鉴到长序列 LLM 训练。
- 可迁移点 4：对生成式用户画像/推荐文案，用分组 DAPO RL 加按危害加权的四类幻觉惩罚（fabrication 0.45、date misattribution 0.24、logic 0.24、missed detection 0.07）并单独给 completeness bonus，可显著降低 fabrication（33.5→4.5）且不诱发拒答；业务上可用较强 judge 做分层中间评测，缩短反馈闭环。
GALA：淘宝上购推荐的自适应多模态生成式对齐学习
🧭 多模态推荐 · 生成式RL对齐 · 自适应融合 ★ 深度解读
Rajax Network Technology (Taobao Shangou of Alibaba) · Central South University
三阶段流程：行为感知预训练、GRPO行为对齐、自适应门控融合，使多模态嵌入动态匹配用户意图，提升排序效果
📌 工作参考价值（4 点）
- 利用搜索日志构造查询-图像-文本三元组进行对比预训练，可迁移至电商搜索推荐场景，提升多模态表示的用户意图感知能力。
- 中间阶段用 GRPO 基于转化奖励优化多模态嵌入，使其与行为目标对齐；该方法可抽象为“用 RL 微调内容表征适应排序目标”，适合有交互序列的场景。
- 自适应门控融合层根据 ID 特征动态加权多模态与 ID 贡献，配合辅助损失防止门控偏向 ID 分支；这种结构可直接用于有强 ID 特征的推荐模型，提升内容特征的实际利用率。
- 离线计算嵌入、在线 KV 查表的部署范式，兼顾效果与毫秒级延迟要求，对大规模推荐系统有直接工程参考价值。
面向冷启动推荐的隐式反馈去噪方法 DIF
🧭 去噪隐式反馈 · 冷启动推荐 · 伪标签生成 ★ 深度解读
Kuaishou Technology · Hong Kong Baptist University · Peking University · Nanjing University · Chinese Academy of Sciences
利用内容相似暖物品为冷物品生成置信度加权的伪标签，并通过不确定性估计自适应修正标签噪声
📌 工作参考价值（4 点）
- 冷启动物品的伪标签生成套路：利用已经训练充分的暖物品协同表示和用户塔输出，通过内容相似度检索top-k暖物品，用内积生成伪标签。电商冷启动物品（新品、新店铺）可复用这一思路，用图像/文本多模态相似度找到同类历史商品，借用其学习好的交互信号。
- 置信度加权聚合：对top-k伪标签按内容相似度做softmax加权，提升伪标签精度，避免简单平均带来的噪声。温度系数τ可调节相似度区分度，实践中相似度通常很高（>0.9），需要τ来拉开差异。
- 样本级不确定性自适应修正：结合相对熵（模型预测与标签的差异）和物品冷启动状态（曝光次数指数衰减）估计标签噪声，再按该不确定性对原始标签与伪标签做 convex 组合。这一机制可灵活插入任何双塔或CTR模型训练，且对暖物品影响极小。
- 工业在线部署架构：详细给出了内容相似暖物品实时检索与表示更新的pipeline设计——多模态推理服务→消息队列→item-to-item ANN服务→协同表示 Embedding 服务，完全适配流式训练场景，可供搭建推荐系统实时特征工程的团队直接参考。